Sau khi 2 anh em của mình là Nguyễn Khoan và Nguyễn Siêu lần lượt bị Đinh Bộ Lĩnh đánh tan và giết chết, Nguyễn Thủ Tiệp bèn liên kết với sứ quân Lý Khuê ở Siêu Loại để chống trả. Cuối năm 967, Đinh Bộ Lĩnh để Đinh Điền cùng mấy tướng trẻ, ở lại giữ Tam Đái và Phong Châu, còn mình và con cả là Đinh Liễn, đem binh thuyền xuôi sông Hồng, sông Đuống xuôi dòng tiến đánh cả Nguyễn Thủ Tiệp và Lý Khuê.

Cánh quân Đinh Bộ Lĩnh hội cùng với cánh quân của Nguyễn Bặc từ Thanh Oai lên, tấn công từ Cổ Loa tiến thẳng vào Tiên Du. Đinh Liễn thì từ sông Đuống vòng theo phía sau lưng, chặn đường không cho quân của Lý Khuê ở Siêu Loại đến tiếp ứng.

Khi quân Hoa Lư bao vây tiến đánh căn cứ Tiên Du, thành vỡ, tướng của Nguyễn Thủ Tiệp là Nguyễn Quốc Khanh giả làm thầy lang, đeo bọc thuốc chạy trốn, bị bắt ở bến đò No, sau đó bị Đinh Bộ Lĩnh chém đầu.

Căn cứ theo thần tích làng Tiên Xá, Bắc Ninh thì Nguyễn Thủ Tiệp dẫn quân tháo chạy về Cần Hải (Cửa Cồn, Quỳnh Lưu, Nghệ An) đánh nhau vài trận rồi chết ở trang Hương Ái.

Sau khi bị Đinh Bộ Lĩnh đánh dẹp, vùng đất chiếm đóng của ông thuộc Đạo Bắc Giang, một trong mười đơn vị hành chính của quốc gia Đại Cồ Việt thời Đinh.